DaV-Gen: End-to-End Generative Retrieval via Draft-and-Verify
DaV-Gen：基于草稿-验证范式的端到端生成式检索
🧭 生成式推荐 · Semantic ID · 稀疏稠密混合表征 ★ 深度解读
Alibaba Group · HUJING Digital Media & Entertainment Group
将生成式检索重构为向量召回 + 并行验证，打破自回归解码的延迟瓶颈
📌 工作参考价值（4 点）
- 用向量检索代替逐 token 生成做候选召回：训练时通过对比损失优化用户-物品混合表征，线上用 ANN 快速产生固定大小的候选集，彻底绕过自回归解码的 O(L) 延迟，可落地到搜索/推荐的粗排甚至精排一体化
- 混合稀疏-稠密物品表征融合 trick：将 RQ-VAE 的连续编码向量（保存细粒度语义）与 Semantic ID 的均值池化向量（保存层次结构）经 LayerNorm+MLP 融合为一个向量，同时用于 MIPS 召回和后续打分，比纯 Semantic ID 或纯稠密向量更稳健
- 广播式前缀缓存实现批量化验证：训练和推理时把用户上下文编码成 KV cache 只算一次，再广播给所有候选物品并行计算生成分数，上下文长度不再随候选量线性增长，可直接用于大规模召回-精排合并场景
- 复合损失联合优化解决多阶段目标不一致：对比损失（召回导向）+ 生成损失（语义合理性）+ 两两排序损失（点击与未点击的细粒度校准）同模型训练，能让同一套参数同时做好召回和排序，避免传统级联系统的误差传播